Как понять, что ваша модель столкнулась с проблемой взрывающихся градиентов?
Градиент — это вектор частных производных функции потерь по весам нейронной сети. В процессе обратного распространения ошибки в градиенте могут накапливаться большие значения. В итоге такие элементы градиента могут переполнить тип данных, в котором они хранятся. Это и называется взрывающимися градиентами (exploding gradients).
Вот признаки: ▪️Высокое значение функции потерь. Отражает неспособность модели обучиться на данных. ▪️Скачки значения функции потерь. Показывают, что модель нестабильна. ▪️Функция потерь во время обучения может принимать значение NaN.
Также на проблему взрывающихся градиентов могут указывать: ▫️Быстрый рост весов модели. ▫️Значения NaN у весов модели во время обучения.
Как понять, что ваша модель столкнулась с проблемой взрывающихся градиентов?
Градиент — это вектор частных производных функции потерь по весам нейронной сети. В процессе обратного распространения ошибки в градиенте могут накапливаться большие значения. В итоге такие элементы градиента могут переполнить тип данных, в котором они хранятся. Это и называется взрывающимися градиентами (exploding gradients).
Вот признаки: ▪️Высокое значение функции потерь. Отражает неспособность модели обучиться на данных. ▪️Скачки значения функции потерь. Показывают, что модель нестабильна. ▪️Функция потерь во время обучения может принимать значение NaN.
Также на проблему взрывающихся градиентов могут указывать: ▫️Быстрый рост весов модели. ▫️Значения NaN у весов модели во время обучения.
#junior #middle
BY Библиотека собеса по Data Science | вопросы с собеседований
Warning: Undefined variable $i in /var/www/tg-me/post.php on line 283
The global forecast for the Asian markets is murky following recent volatility, with crude oil prices providing support in what has been an otherwise tough month. The European markets were down and the U.S. bourses were mixed and flat and the Asian markets figure to split the difference.The TSE finished modestly lower on Friday following losses from the financial shares and property stocks.For the day, the index sank 15.09 points or 0.49 percent to finish at 3,061.35 after trading between 3,057.84 and 3,089.78. Volume was 1.39 billion shares worth 1.30 billion Singapore dollars. There were 285 decliners and 184 gainers.
Importantly, that investor viewpoint is not new. It cycles in when conditions are right (and vice versa). It also brings the ineffective warnings of an overpriced market with it.Looking toward a good 2022 stock market, there is no apparent reason to expect these issues to change.
Библиотека собеса по Data Science | вопросы с собеседований from in
